The Price of Scale in Proactive Memory Recall
主动记忆召回中的规模代价:误报随记忆库增大的幂律恶化与控制
🧭 Agent 长期记忆主动召回 ★ 深度解读
Zhejiang Sci-Tech University
证明主动召回门控的误报率随存储规模幂律上升,提出免标签 conformal 门控并验证其控制误报
📌 工作参考价值(4 点)
- 做主动 push/选品/召回时不要用固定相似度阈值:先对每个用户/上下文做 per-cue z-score 标准化,再让阈值随候选池 N 增长;embedding 分数用 √(2 ln N) 量级,词法 tf-idf 用 ln N 更快,否则 N 从几十到几千误报会从 5% 飙到 80%+。
- 无标签门控可直接落地:用用户历史 session/消息作为 reference,对当前候选打分,计算 conformal p-value(rank = (1 + #{ref ≥ current})/(K+1)),设定 α=0.05 即有有限样本 FPR 保证;适合 push 文案/商品/消息的发送决策,无需标注是否打扰。
- 两阶段 LLM judge 值得用:先用向量/词法召回 top-5 候选,再让 LLM 读候选判断是否打扰/相关;在 N=2048 时 14B judge 达到 28% hit@4% FA,优于纯相似度 gate,但延迟和成本更高,且要确保召回覆盖(top5 含 evidence 仅 36%-65%)。
- 容量受表示分离度限制,投入 embedding 质量/多模态上下文比堆更多记忆更划算:binormal 模型下容量随分离度平方指数增长;当候选池极大且 score 分布重叠大时,可控误报下的命中率会掉到个位数。